JSAI2024 2日目: AI応用：医療・ヘルスケア
AI診断支援システムはエビデンスと謙虚さを示せるか？ Surrogate modelによるXAIとUQとの融合（宮地先生）
代理モデル ≠ 主モデル
予測データのエビデンス
不確実性の定量化
本質的なランダム性と予測不可能性
知識または情報の欠如
医学的な診断
UQの手法
予測区間
予測困難度
複数の予測データの取得
評価関数による主モデルの予測データの近傍処理
LLMs vs AI診断支援システム
現状の商用LLM
説明可能性なし、不確実性の定量化
これと診断支援システムとk-NN Surrogate modelを組み合わせたい
今後のアイデア
説明可能性: むしろk近傍法に戻ってもいいのではないかとも思っている
https://gyazo.com/62792f665ed8cdd357b710fadad02866
「マジ神AI」の活用が介護職の意識・行動に与える影響（福田先生）
介護ニーズ急増＋人材不足への対応策としての生産性向上
「マジ神」人材を育成したいが時間がかかる
快・不快の状態を判定する
日々の「不調と異常」を捉える
同じ日のデータをカレンダービューで見れる
毎日接していると長期の変化に気づきにくくなる
週、月の単位で長期のトレンドを把握する
食事の摂取量など
支援システム利用頻度による比較
マジ神AIの利用者
データによって情報を把握して、臨機応変な対応ができるようになった
客観的なデータで状態を把握できるようになった
同じデータを見て連携する各部署で議論できるようになった
まずは使ってもらわないといけない
使いやすさも含めてシステムとしての完成度が大事
課題: 使い方の伝達
質疑応答
介護施設ごとに環境が大きく違うと思うが、実験への影響は？
環境のばらつきはある
まずは調査に取り組める施設を優先して選んだ
働き方改革にもつながっている？
時短につながる業務も見えてきた
時間の使い方が変わってきた
https://gyazo.com/326440b6dba8755645b201f97d6ffa29